इज़राइल प्रौद्योगिकी संस्थान द्वारा संचालित एक हालिया अध्ययन से पता चलता है कि बड़े भाषा मॉडल (LLM) संभवतः 'गहरे छिपे' हुए हैं, उनके पास जो ज्ञान है वह वास्तविक प्रदर्शन से अधिक है। शोधकर्ता发现了 कि LLM का आंतरिक प्रतिनिधित्व उनके आउटपुट की सहीता के बारे में जानकारी को संहिताबद्ध करता है, अर्थात् वे अंततः गलत उत्तर उत्पन्न करने के बावजूद सही उत्तर को आंतरिक रूप से पहचान सकते हैं।研究团队 ने LLM द्वारा लंबे पाठ उत्पन्न करने में गलती का गहन विश्लेषण किया, जो वास्तविक जीवन में इसके उपयोग परिदृश्यों के और करीब है। उन्होंने एक गलती पहचान डेटा सेट का निर्माण किया, मॉडल की तुलना करके生成的文本。